a) Pt\(\Leftrightarrow\left(sin^2x+cos^2x\right)^3-3sin^2xcos^2x\left(sin^2x+cos^2x\right)+3sinx.cosx-\dfrac{m}{4}+2=0\)

\(\Leftrightarrow1-\dfrac{3}{4}sin^22x-\dfrac{3}{2}sin2x-\dfrac{m}{4}+2=0\)

\(\Leftrightarrow-3sin^22x-6sin2x-m+12=0\)

Đặt \(t=sin2x;t\in\left[-1;1\right]\)

Pttt: \(-3t^2-6t-m+12=0\)

\(\Leftrightarrow-3t^2-6t+12=m\) (1)

Đặt \(f\left(t\right)=-3t^2-6t+12;t\in\left[-1;1\right]\) 

Vẽ BBT sẽ tìm được \(f\left(t\right)_{min}=3;f\left(t\right)_{max}=15\)\(\Leftrightarrow3\le f\left(t\right)\le15\)\(\Rightarrow m\in\left[3;15\right]\) thì pt (1) sẽ có nghiệm

mà \(m\in Z\) nên tổng m nguyên để pt có nghiệm là 13 m

Vậy có tổng 13 m nguyên

b) Pt\(\Leftrightarrow\left[{}\begin{matrix}sinx=1\left(1\right)\\2cos^2x-\left(2m+1\right)cosx+m=0\left(2\right)\end{matrix}\right.\)

Từ (1)\(\Leftrightarrow x=\dfrac{\pi}{2}+k2\pi\left(k\in Z\right)\)

\(x\in\left[0;2\pi\right]\Rightarrow0\le\dfrac{\pi}{2}+k2\pi\le2\pi\)\(\Leftrightarrow-\dfrac{1}{4}\le k\le\dfrac{3}{4}\)\(\Rightarrow k=0\)

Tại k=0\(\Rightarrow x=\dfrac{\pi}{2}\)

Để pt ban đầu có 4 nghiệm pb \(\in\left[0;2\pi\right]\)

\(\Leftrightarrow\) Pt (2) có 3 nghiệm pb khác \(\dfrac{\pi}{2}\)

Xét pt (2) có: \(2cos^2x-\left(2m+1\right)cosx+m=0\)

Vì là phương trình bậc hai ẩn \(cosx\) nên pt (2) chỉ có nhiều nhất ba nghiệm \(\Leftrightarrow\) Pt (2) có một nghiệm cosx=0

\(\Leftrightarrow x=\dfrac{\pi}{2}+k\pi\) mà \(x\ne\dfrac{\pi}{2}\)

\(\Rightarrow\) Pt (2) chỉ có nhiều nhất hai nghiệm

\(\Rightarrow\) Pt ban đầu không thể có 4 nghiệm phân biệt

Vậy \(m\in\varnothing\) 

Khi \(x\ge0\Rightarrow2x+1>0\) nên BPT tương đương:

\(x^2-3x+m>\left(2x+1\right)^2\)

\(\Leftrightarrow x^2-3x+m>4x^2+4x+1\)

\(\Leftrightarrow3x^2+7x+1< m\)

Xét hàm \(f\left(x\right)=3x^2+7x+1\) trên \(\left[0;2\right]\)

\(-\dfrac{b}{2a}=-\dfrac{7}{6}\notin\left[0;2\right]\) ; \(f\left(0\right)=1\) ; \(f\left(2\right)=27\)

\(\Rightarrow f\left(x\right)\ge1\Rightarrow\) pt có nghiệm trên đoạn đã cho khi \(m>1\)

\(y'=3x^2-4mx-m-1\)

Hàm đồng biến trên (0;2) khi \(\forall x\in\left(0;2\right)\) ta có:

\(y'\ge0\Leftrightarrow3x^2-4mx-m-1\ge0\)

\(\Leftrightarrow3x^2-1\ge m\left(4x+1\right)\) (1)

Do \(4x+1>0\) ; \(\forall x\in\left(0;2\right)\) nên (1) tương đương:

\(m\le\dfrac{3x^2-1}{4x+1}\Leftrightarrow m\le\min\limits_{\left(0;2\right)}\dfrac{3x^2-1}{4x+1}\)

Xét hàm \(f\left(x\right)=\dfrac{3x^2-1}{4x+1}\) trên \(\left(0;2\right)\)

\(f'\left(x\right)=\dfrac{12x^2+6x+4}{\left(4x+1\right)^2}>0\Rightarrow f\left(x\right)\) đồng biến

\(\Rightarrow f\left(x\right)>f\left(0\right)=-1\Rightarrow m\le-1\)

Ta có \(\sqrt{\left(m+2\right)x+m}\ge\left|x-1\right|\Leftrightarrow\left(m+2\right)x+m\ge x^2-2x+1\)

                                                   \(\Leftrightarrow m\ge\frac{x^2-4x+1}{x+1}\) (vì \(x\in\left[0;2\right]\)

Xét hàm số \(f\left(x\right)=\frac{x^2-4x+1}{x+1}\) trên đoạn \(\left[0;2\right]\) ta có

\(f'\left(x\right)=\frac{x^2+2x-5}{\left(x+1\right)^2};f'\left(x\right)=0\Leftrightarrow x=-1+\sqrt{6}\)

Lập bảng biến thiên ta được 

\(f\left(0\right)=1;f\left(2\right)=-1\)

\(f\left(-1+\sqrt{6}\right)=2\sqrt{6}-6\)

Vậy bất phương trình đã cho có nghiệm thì \(m>\) min (0;2] \(f\left(x\right)=f\left(-1+\sqrt{6}\right)=2\sqrt{6-6}\)

Ta có \(y'=-2x^2+2\left(m+1\right)x+2m\)

Hàm số đồng biến trên khoảng (0;2) \(\Leftrightarrow y'\ge0,x\in\left(0;2\right)\) (*)

Vì y'(x) liên tục tại x=0 và x=2 nên (*) \(\Leftrightarrow y'\ge0,x\in\left[0;2\right]\)

\(\Leftrightarrow-2x^2+2\left(m+1\right)x+2m\ge0,x\in\left[0;2\right]\)

\(\Leftrightarrow m\left(x+1\right)\ge x^2-x,x\in\left[0;2\right]\Leftrightarrow m\ge g\left(x\right),x\in\left[0;2\right]\); (trong đó \(g\left(x\right)=\frac{x^2-x}{x+1}\))

\(\Leftrightarrow m\ge Max_{\left[0;2\right]}g\left(x\right)\)

Xét hàm số \(g\left(x\right)=\frac{x^2-x}{x+1}\) trên đoạn \(\left[0;2\right]\)

\(\Rightarrow g'\left(x\right)=\frac{x^2+2x-1}{\left(x+1\right)^2}\Rightarrow g'\left(x\right)=0\Leftrightarrow x=-1+\sqrt{2},x\in\left[0;2\right]\)

\(g\left(0\right);g\left(2\right)=\frac{2}{3};g\left(-1+\sqrt{2}\right)\Rightarrow Max_{\left(0;+\infty\right)}g\left(x\right)=\frac{2}{3}\) tại x=2

Vậy \(m\ge\frac{2}{3}\) thì hàm số đồng biến trên khoảng (0;2)

Ta có : \(y'=-2x^2+2\left(m+1\right)x+2m,\Delta'=m^2+6m+1\)

Suy ra hàm đồng biến trên khoảng (0; 2) \(\Leftrightarrow y'\ge0,x\in\left(0;2\right)\)(*)

Trường hợp 1 : Nếu \(\Delta'\le0\Leftrightarrow m^2+6m+1\le0\Leftrightarrow-3-2\sqrt{2}\le m\le-3+2\sqrt{2}\)

theo định lí về dấu tam thức bậc 2 ta có \(y'\le0,x\in R\) => (*) không thỏa mãn

Trường hợp 2 : Nếu \(\Delta'>0\Leftrightarrow m^2+6m+1>0\Leftrightarrow m\le-3-2\sqrt{2}\) hoặc \(m\ge-3+2\sqrt{2}\) thì (*) đúng

<=> phương trình \(y'=0\) có 2 nghiệm phân biệt \(x_1;x_2\) (\(x_1\)>\(x_2\)) và thỏa mãn \(x_1\le0<2\le x_2\)

\(\Leftrightarrow\begin{cases}\Delta>0\\x_1\le0<2\le x_2\end{cases}\) \(\Leftrightarrow\begin{cases}\left(x_1-2\right)\left(x_2-2\right)\le0\\\Delta>0\\\left(x_1-0\right)\left(x_2-0\right)\le0\end{cases}\)

\(\Leftrightarrow\begin{cases}x_1x_2-2\left(x_1+x_2\right)+4\le0\\\Delta>0\\x_1x_2\le0\end{cases}\)

\(\Leftrightarrow m\ge\frac{2}{3}\)

Kết hợp trường hợp 1 và trường hợp 2 ta có \(m\ge\frac{2}{3}\) thì hàm đồng biến trên khoảng (0;2)

giả sử :  \(\frac{mx+m}{\left(m+1\right)x-m+2}>0\)\(,\text{∀}x\in\left[0;2\right]\)

\(\Rightarrow\frac{m.0+m}{\left(m+1\right).0-m+2}>0\)    \(\Rightarrow\frac{m}{2-m}>0\)

                               \(\Rightarrow0\)\(<\)\(m<\)\(2\)

ngược lại \(0<\)\(m<2\) thì:

\(mx+m>0,\text{∀}x\in\left[0;2\right]\)

\(\left(m+1\right)x\ge0>m-2,\)\(\text{∀}x\in\left[0;2\right]\)

\(\Rightarrow\left(m+1\right)x-m+2>0,\text{∀}x\in\left[0;2\right]\)

\(\Rightarrow\frac{mx+m}{\left(m+1\right)x-m+2}>0,\text{∀}x\in\left[0;2\right]\)

vậy:  \(0\)\(<\)\(m<\)\(2\) là kết quả cần tìm